Freiburško start-up podjetje Black Forest Labs (BFL), nekoč slavljeno kot vzhajajoča zvezda na sceni umetne inteligence, je trenutno pod hudimi kritikami. S svojim generatorjem slik Flux.1 je podjetje v zadnjih dneh poskrbelo za negativne naslove. Predvsem partnerstvo z Elonom Muskom in njegovo podjetjem xAI ter šokantne slike, ki so se razširile po socialnih omrežjih, so povzročile ogorčenje.

Black Forest Labs si je hitro pridobil ime v skupnosti umetne inteligence z razvojem slikovnega generatorja Flux.1. Orodje je bilo oglaševano kot zmogljivejše in natančnejše od svojih konkurentov, Dall-E 3 in Midjourney v.6. V sodelovanju z xAI Elona Muska naj bi Flux.1 razširil možnosti modela Grok na platformi X (nekdanji Twitter).

V sredo so pa krožile slike, ki jih je ustvaril Flux.1 in so po vsem svetu dvignile precej prahu. Upodobitve so segale od Donalda Trumpa, ki pozira z orožjem, do izjemno vznemirljivih prizorov z animiranimi liki. V nasprotju z drugimi generatorji slik z umetno inteligenco se je zdelo, da Grok v kombinaciji s Flux.1 nima skoraj nobenih omejitev pri ustvarjanju takšnih vsebin.

Ta dogajanja zdaj postavljajo resna vprašanja. Kako je lahko do tega prišlo? Ali so bile potrebne varnostne ukrepe zanemarjene? Orodje, ki je prvotno veljalo za vodilno na področju natančnosti in ustvarjalnosti, bi lahko postalo tarča kritik zaradi pomanjkanja bistvenih filtrov. Strokovnjaki, kot je Björn Ommer, profesor za računalniški vid na Univerzi Ludwig Maximilian v Münchnu, sumijo, da bi lahko visoka kakovost Flux.1 bila posledica odsotnosti teh filtrov.

Ustanovitelji podjetja Black Forest Labs niso neznanci v panogi. V preteklosti so vsi delali za londonski start-up Stability.AI, ki je znan po slikovnem generatorju Stable Diffusion. Po njihovem odhodu so ustanovili BFL in razvili Flux.1, ki je močno podoben modelu Stable Diffusion 3.

Poleg tehnične razprave postaja sedaj glasnejša tudi pravna in regulativna razprava. Evropska komisija in britanski organi bi lahko zaradi možnih kršitev digitalnih in varnostnih zakonov sprožili preiskave. Situacijo še posebej zaostruje povezava z Elonom Muskom, ki je znan po svojih kontroverznih pogledih in dejanjih.

Doslej se niti Musk niti Black Forest Labs uradno nista odzvala na incidente. Na družbenih omrežjih pa vse glasneje kličejo po strožjih regulacijah, da bi v prihodnje preprečili podobne incidente. Ostaja vprašanje, ali bo BFL lahko obvladal nastalo krizo in kako bo to vplivalo na nadaljnji razvoj podjetja.